Facebooks dark pattern design, public relations and internal work culture

Abstract

  • 페이스북은 프라이버시, 다크 패턴, 거짓정보, 사용자 양극화 등 다양한 문제로 비판 받고 있음
  • 유출된 문서에 따르면 공식 PR과 내부 논의 및 연구 사이에 간극이 있음.
  • 유출된 문서와 공개된 뉴스 기사를 분석하여 이러한 문제점들을 분석

Introduction

  • 페이스북의 활성 사용자는 2.9B, 2020년 기준 일평균 38분 사용
  • 직원 Frances Haugen이 2021년 9월 Securities and Exchange Commission 및 The Wall Street Journal에 제출한 자료 등에 따르면 페이스북은 내부적으로 많은 문제를 겪고 있었음

RQs:

  • What type of dark pattern designs Facebook inc. has applied to their site’s recommendation algorithm and News Feed?

Related Work

Dark patterns (생략)

Facebook, News Feed and engagement

  • 초창기 페이스북은 사람들이 본인 페이지에 취미, 학력, 관심사, 관계 등을 올려놓는 사전 같은 사이트였음. 그보다 더 전에는 여자 대학생들의 얼굴을 동의 없이 올려놓고 인기 투표하는 사이트 “Facemesh”였음(2003). 그 후 이름을 TheFacebook으로 변경(2004)했다가 다시 facebook으로 변경(2005). —ak
  • 2007년에 “피드”가 처음으로 생김. 지인들의 상태 업데이트를 모아보는 공간
  • 2011년에 “피드”는 “뉴스 피드”로 바뀌면서 페이스북의 핵심 경험이 됨. 다양한 페이지와 프로필의 정보를 수집하여 동적으로 보여줌
  • 2009년부터 피드는 시간순이 아니었고 “좋아요” 버튼을 추가함
  • 2026년에 다른 리액션(Love, Haha, Wow, Sad, Angry)이 추가됨. 이 정보는 ‘emotion heavy’ 콘텐츠를 더 많이 노출하기 위해 활용됨
  • 이러한 일련의 변화로 engagement를 높였으나 다양한 문제가 야기됨

Hate speech, polarization, and information bubbles

  • 페이스북은 증오언설을 자동으로 제거하기 위한 연구에 많은 투자를 함(13B). 증오언설을 하는 자와 알고리즘 사이의 무기경쟁 상태. 현재는 사람이 우세
  • 인간 모더레이터의 수작업도 중요. 인간의 문제는 모더레이터의 편향. 페이스북 코리아는 특히 젠더 편향 문제가 심각한 것으로 유명. 일부 사용자는 페이스북을 블루일베라고 부름 —ak

ToDo

2024 © ak